Mercury sinh ra với tên khai sinh Farrokh Bulsara (tiếng Gujarati: ફારોખ બલસારા, Pharōkh Balsārā‌) tại thị trấn Đá Zanzibar ở tỉnh bảo hộ Anh Quốc của Vương quốc Zanzibar, Đông Phi (nay là một phần của Tanzania) vào ngày 5 tháng 9 năm 1946.[8][9] Cha mẹ ông, Bomi (1908–2003) và Jer Bulsara (1922–2016),[lower-alpha 1][10] là những người Parsi từ vùng Gujarat của tỉnh mà sau này là vùng Bombay ở Ấn Độ thuộc Anh[lower-alpha 2]. Do là người Parsi, Mercury và gia đình ông theo Hỏa giáo.[12] Gia đình Bulsara đã chuyển đến Zanzibar để người cha có thể tiếp tục làm công việc thu ngân tại Văn phòng thuộc địa Anh. Mercury có một cô em gái, Kashmira.[13]

Mercury dành hầu hết thời thơ ấu của mình ở Ấn Độ và bắt đầu học đàn piano khi lên bảy tuổi.[14] Năm 1954, khi lên tám tuổi, Mercury được cử đi học tại trường St. Peter's, một trường nội trú kiểu Anh dành cho nam sinh, tại Panchgani gần Bombay (bây giờ là Mumbai).[15] Ở tuổi 12, ông thành lập một ban nhạc ở trường, The Hectics, và hát lại các bài hát rock and roll của các nhạc sĩ như Cliff Richard và Little Richard.[16][17] Có người nói rằng một trong những ảnh hưởng âm nhạc ban đầu của anh tại thời điểm đó là ca sĩ Bollywood Lata Mangeshkar,[18] nhưng một trong những người bạn cũ của Mercury từ Hectics đã nói rằng "Điều đó là sai. Thể loại nhạc duy nhất anh ấy nghe và hát là nhạc pop phương Tây."[19] Một người bạn lúc đó nhớ lại rằng Mercury có "một khả năng kỳ lạ khi nghe radio và đánh lại những gì anh ấy nghe được trên đàn piano".[20] Cũng tại trường St. Peter's là nơi anh bắt đầu tự gọi mình là "Freddie", và vào tháng 2 năm 1963 anh chuyển về Zanzibar, nơi anh ở cùng bố mẹ tại căn hộ chung.[21]

Ở tuổi 17, Mercury và gia đình chạy trốn khỏi Zanzibar vì lý do tránh Cách mạng Zanzibar 1964,[22] trong đó hàng ngàn người Ả Rập và người Ấn Độ bị giết hại.[23] Gia đình chuyển đến một ngôi nhà nhỏ tại 22 Gladstone Avenue, Feltham, Middlesex, Anh. Mercury nhập học tại trường Isleworth Polytechnic (nay là Cao đẳng West Thames) tại Tây London với chuyên ngành nghệ thuật. Cuối cùng, ông đã nhận được bằng tốt nghiệp về Nghệ thuật và Thiết kế Đồ họa tại Ealing Art College (nay là cơ sở Ealing của Đại học West London),sau đó sử dụng những kỹ năng này để thiết kế logo của ban nhạc Queen. Là công dân Anh từ lúc mới sinh, Mercury vẫn giữ quốc tịch này trong suốt quãng đời còn lại của mình.[15]

Sau khi tốt nghiệp, Mercury tham gia một loạt các ban nhạc và bán quần áo cũ tại Kensington Market ở London với bạn gái Mary Austin. Anh cũng đã từng làm việc tại sân bay Heathrow. Bạn bè từ thời đó nhớ đến anh như một người đàn ông trẻ tuổi trầm lặng và nhút nhát, người đã tỏ ra rất quan tâm đến âm nhạc.[24] Năm 1969, anh gia nhập ban nhạc Ibex ở Liverpool, sau đó đổi tên thành Wreckage. Mercury sống một thời gian ngắn trong một căn hộ phía trên quán rượu Liverpool, The Dovedale Towers.[25][26] Khi ban nhạc này không thể thành công, Mercury đã gia nhập một ban nhạc thứ hai có tên là Sour Milk Sea. Tuy nhiên, vào đầu năm 1970 nhóm này cũng đã tan rã.[27]

Vào tháng 4 năm 1970 Mercury cùng với tay guitar Brian May và tay trống Roger Taylor lập thành một nhóm nhạc. Năm 1971 họ có thêm tay guitar bass John Deacon.  Mercury đã chọn tên "Queen" - "Nữ hoàng" cho ban nhạc, cho dù ban đầu các thành viên khác và Trident Studios, ban quản lý sơ khai của ban nhạc, không ưa cho lắm. Sau này ông giải thích, "Nó rất rõ ràng, và nó nghe có vẻ lộng lẫy. Đó là một cái tên mạnh mẽ, rất phổ quát và dễ nhận biết. Tôi chắc chắn nhận thức được ý đồng tính của cái tên đó, nhưng đó chỉ là một khía cạnh của nó."[28] Cùng lúc đó, anh đổi họ từ Bulsara thành Mercury.[29] Mercury thiết kế logo của ban nhạc, được gọi là biểu tượng của Queen, ngay trước khi phát hành album đầu tiên của ban nhạc. Logo kết hợp các dấu hiệu hoàng đạo của cả bốn thành viên: hai con sư tử cho Leo (Deacon and Taylor), một con cua cho Cancer (May), và hai tiên nữ cho Virgo (Mercury). Sư tử ôm lấy một chữ Q cách điệu, con cua nằm trên đỉnh chữ Q với ngọn lửa vươn lên ngay trên nó, và các nàng tiên đang trú ẩn dưới một con sư tử. Ngoài ra còn có một vương miện bên trong chữ Q và toàn bộ logo bị che phủ bởi một con phượng hoàng khổng lồ. Toàn bộ biểu tượng có sự tương đồng với Quốc huy Vương quốc Anh, nhất là khi cả hai đều có hình các con sư tử.[30]